ICML_2020 对比学习 - 程序员宅基地

近期必读的与ICML 2020【对比学习】相关的论文（六篇）

标签： ICML_2020 对比学习

与往年相比，ICML 2020的接收率正逐年走低。本文发现基于对比学习（Contrastive Learning）相关的paper也不少，对比学习、自监督学习等等都是今年比较火的topic，受到了很多人的关注。

【ICML 2020对比学习论文解读】SimCLR: A Simple Framework for Contrastive Learning of Visual ...

对比学习是一种自监督学习方法，在无标签数据集上仍可以学习到较好的表征。对比学习的主要思想就是相似的样本的向量距离要近，不相似的要远，以此获得数据的高阶信息。

（ICML-2020）通过超球面的对齐和均匀性理解对比表示学习（一）

文章目录通过超球面的对齐和均匀性理解对比表示学习Abstract1. Introduction2. Related Work3.无监督对比表征学习的初步研究4. Feature Distribution on the Hypersphere4.1. Quantifying Alignment and Uniformity...

（ICML-2020）通过超球面的对齐和均匀性理解对比表示学习（二）

标签：计算机视觉

文章目录通过超球面的对齐和均匀性理解对比表示学习5. Experiments6. Discussion 通过超球面的对齐和均匀性...paper是MIT发表在ICML 2020的工作 paper地址：链接 5. Experiments 在本节中，我们凭经验验证对齐和均

ICML 2020 | SCAFFOLD：联邦学习的随机控制平均

标签：联邦学习异质性 SCAFFOLD

ICML 2020 | SCAFFOLD：联邦学习的随机控制平均

文献阅读（57）ICML Workshop2020-Deep Graph Contrastive Representation Learning

标签：机器学习深度学习

本文是对《Deep Graph Contrastive Representation Learning》一文的浅显翻译与理解，如有侵权即刻删除。

文献阅读（75）ICML Workshop2020-Temporal Graph Networks for Deep Learning on Dynamic Graphs

标签：深度学习人工智能

本文是对《Temporal Graph Networks for Deep Learning on Dynamic Graphs》一文的总结，如有侵权即刻删除。

【ICML 2020联邦学习论文解读】SCAFFOLD: Stochastic Controlled Averaging for Federated Learning

标签：联邦学习 FL 论文解读

FedAvg的收敛速度受限于数据集的分布，在Non-IID数据集中FedAvg的收敛速度缓慢。本文提出了一种叫做SCAFFOLD的算法，通过增加一个额外的参数control variate来修正FedAvg出现的client-drift，以此来加快收敛速度，...

论文浅尝 - ICML2020 | 对比图神经网络解释器

标签：神经网络算法机器学习

论文笔记整理：方尹，浙江大学在读博士，研究方向：图表示学习。Contrastive Graph Neural Network Explanation动机与贡献本文主要关注图神经网络的解释...

【ICML2022】基于对比学习的离线元强化学习的鲁棒任务表示

标签：算法机器学习深度学习

来源：专知本文为论文介绍，建议阅读5分钟我们的方法比以前的方法更有优势，特别是在泛化到非分布行为策略上。我们研究离线元强化学习，这...为了解决这个问题，我们提出了一个任务表示的对比学习框架，该框架对训...

ICML 2020: 从Alignment 和 Uniformity的角度理解对比表征学习

Title: 《Understanding Contrastive Representation Learning through Alignment and Uniformity on the Hypersphere》Author:Tongzhou Wang ; Phillip Isola Understanding Contrastive Representation Learning ...

最新8篇ICML2020投稿论文：自监督学习、联邦学习、图学习、数据隐私、语言模型、终身学习…...

关注上方“深度学习技术前沿”，选择“星标公众号”，资源干货，第一时间送达！机器学习顶会 ICML已经结束了 2020 年的论文投稿，作为最“硬核”的机器学习会议之一，由于 ICML 并...

[TFA] Frustratingly Simple Few-Shot Object Detection(ICML. 2020)

1. Contribution 分类任务上的few-shot研究较多，相比之前FSOD收到较少的关注。 Detecting rare objects from a few examples is an emerging problem. However, much of this work has focused on basic ...

自监督学习中的 Contrastive Learning 对比学习（持续更新）

标签：机器学习深度学习计算机视觉

本文粗略介绍了对比学习的基本原理以及常见方法。什么是对比学习？对比学习是一种自监督或者无监督学习的一种方法。通过对比未知样本和正负样本的相近程度，来给未知样本进行正负归类。最早运用于判定图像表征...

顶会论文看图对比学习 (GNN+CL) 研究趋势

标签：算法大数据 python

作者|侯宇蓬单位|中国人民大学来源|RUCAIBox随着对比学习（Contrastive Learning）在 CV、NLP 等领域大放异彩，其研究热度近年来也逐步走高...

对比学习在NLP和多模态领域的应用

标签：算法 python 计算机视觉

对比学习综述

标签：对比学习 pytorch 多模态

它们使用的代理任务是不一样的，有个体判别，有预测未来，...CMC可能有两个甚至多个编码器它们做的任务从图像到视频到音频到文字到强化学习，非常的丰富多彩。目标函数都是用infoNCE或者infoNCE类似的目标函数去算的。

强化学习（ICML2022）

标签：算法

它们是互补的，可以为强化学习获得更多信息的反馈:(1)提供更容易的子任务的密集奖励，而(2)修改子任务的环境，使其更具挑战性和多样性。子任务树为每个策略提供了一个易于实现的课程:其自上而下的构建逐渐增加规划器...

ICML long talk | 达摩院开源半监督学习框架Dash

标签：人工智能深度学习半监督

本文介绍ICML long talk (top 3.02%) 论文 “Dash: Semi-Supervised Learning with Dynamic Thresholding”。该论文提出半监督学习框架Dash，用动态阈值的方式筛选无标签样本进行半监督学习，该框架简单高效，可以...

【图对比学习难样本挖掘】ICML‘22 ProGCL: Rethinking Hard Negative Mining in Graph Contrastive L

标签：深度学习推荐算法

本篇文章作者发现现有的其他领域的难负样本挖掘技术并不能很好地提高图对比学习的表现，并对这一现象进行深入探究，发现可以归因于图神经网络的信息传递机制。此外作者提出了一种挖掘图网络中的难样本对的方法。此...

对比学习（Contrastive Learning）综述

标签：算法大数据 python

引入深度学习的成功往往依赖于海量数据的支持，其中对于数据的标记与否，可以分为监督学习和无监督学习。1. 监督学习：技术相对成熟，但是对海量的数据进行标记需要花费大量的时间和资源。2. 无监督学习：自主发现...

图对比学习论文总结

标签：学习

图对比学习

【论文阅读】ICML2020: Can Autonomous Vehicles Identify, Recover From, and Adapt to Distribution ...

标签：深度学习

Column: January 6, 2022 7:18 PM Last edited time: January 30, 2022 12:14 AM ...Type: ICML Year: 2020 引用量: 46 正在进行中 → 参考的Youtube 比论文更好懂参考与前言项目主页： Robust Imitative Plannin

时间序列数据机器学习（ICML 2022）

标签：机器学习人工智能

本文设计了ExpCLR，一种新的对比学习方法，建立在利用专家特征来鼓励学习到的表示的这两种属性的目标上。在三个真实世界的时间序列数据集上证明，ExpCLR在无监督和半监督表示学习方面都超过了一些最先进的方法。凭...

ICML21 - CLIP: Learning Transferable Visual Models From Natural Language Supervision

标签：机器学习 CLIP 多模态预训练模型

如果你对这篇文章感兴趣，可以点击「【访客必读 - 指引页】一文囊括主页内所有高质量博客」，查看完整博客分类与对应链接。CLIP (Contrastive ...OpenAI 使用 4 亿对「文字-图像」通过对比学习，得到预训练模型。

一文详解图对比学习（GNN+CL）的一般流程和最新研究趋势

标签：算法大数据 python

[ 对比学习篇 ] 经典网络模型 —— Contrastive Learning

标签：深度学习对比学习 Contrastive

[ 对比学习篇 ] 经典网络模型 —— Contrastive Learning InstDisc、InvaSpread、CPC、CMC； MoCov1、SimCLRv1、MoCov2、SimCLRv2、SWaV； BYOL、SimSiam； MoCov3、DINO； CLIP；

ICML 2020论文笔记：地表最强文本摘要生成模型PEGASUS(天马)

标签：深度学习文本摘要 NLP

这里写自定义目录标题背景摘要介绍模型预训练目标GSG预训练语料和下游任务实验结果消融研究Larger模型效果处理低资源数据集人工评测总结： Google发布天马-地表最强文本摘要...收录会议：ICML 2020 论文代码：https:/

ICML2020-CURL（自监督学习+强化学习文章）阅读

强化学习如果直接从高维数据开始学习，例如从pixel开始学习，需要大量的样本，样本利用效率比较低，因此CURL希望通过自监督学习中的对比学习（contrastive learning）自动从raw pixel中学习到比较高层的抽象特征，并...

”ICML_2020 对比学习“ 的搜索结果

近期必读的与ICML 2020【对比学习】相关的论文（六篇）

【ICML 2020对比学习论文解读】SimCLR: A Simple Framework for Contrastive Learning of Visual ...

（ICML-2020）通过超球面的对齐和均匀性理解对比表示学习（一）

（ICML-2020）通过超球面的对齐和均匀性理解对比表示学习（二）

[ICML2022]增强记忆的对比学习.zip

ICML 2020 | SCAFFOLD：联邦学习的随机控制平均

文献阅读（57）ICML Workshop2020-Deep Graph Contrastive Representation Learning

文献阅读（75）ICML Workshop2020-Temporal Graph Networks for Deep Learning on Dynamic Graphs

【ICML 2020联邦学习论文解读】SCAFFOLD: Stochastic Controlled Averaging for Federated Learning

论文浅尝 - ICML2020 | 对比图神经网络解释器

【ICML2022】基于对比学习的离线元强化学习的鲁棒任务表示

ICML 2020: 从Alignment 和 Uniformity的角度理解对比表征学习

最新8篇ICML2020投稿论文：自监督学习、联邦学习、图学习、数据隐私、语言模型、终身学习…...

[TFA] Frustratingly Simple Few-Shot Object Detection(ICML. 2020)

自监督学习中的 Contrastive Learning 对比学习（持续更新）

顶会论文看图对比学习 (GNN+CL) 研究趋势

对比学习在NLP和多模态领域的应用

对比学习综述

强化学习（ICML2022）

ICML long talk | 达摩院开源半监督学习框架Dash

【图对比学习难样本挖掘】ICML‘22 ProGCL: Rethinking Hard Negative Mining in Graph Contrastive L

对比学习（Contrastive Learning）综述

图对比学习论文总结

【论文阅读】ICML2020: Can Autonomous Vehicles Identify, Recover From, and Adapt to Distribution ...

时间序列数据机器学习（ICML 2022）

ICML21 - CLIP: Learning Transferable Visual Models From Natural Language Supervision

一文详解图对比学习（GNN+CL）的一般流程和最新研究趋势

[ 对比学习篇 ] 经典网络模型 —— Contrastive Learning

ICML 2020论文笔记：地表最强文本摘要生成模型PEGASUS(天马)

ICML2020-CURL（自监督学习+强化学习文章）阅读

推荐文章